Assign and Add: A Mechanistic Study of Compositional Arithmetic
分配与相加：组合算术的机制研究
🧭 Transformer组合泛化机制与训练动态
Yale University · Flatiron Institute
通过变量分配与模加任务，揭示Transformer组合泛化的内部机制、训练动态和模块复用方式
📌 工作参考价值（4 点）
- 多技能Agent的训练策略：论文发现模型分三阶段学习（先原子技能模加、再组合结构、最后泛化到难样本），在训练电商Agent或多技能推荐系统时，可采用类似课程学习，先确保单一能力收敛再混合任务，避免联合训练导致的负迁移。
- 模块复用的架构启发：同一MLP模块在直接和间接输入下均实现模加，表明模型自发形成可复用电路。设计生成式推荐或Query改写模型时，可刻意为共享子任务预留模块化组件（如专用LoRA分支），提升参数效率和组合泛化。
- 组合泛化的验证方法：通过划分不相交训练集测试未见过组合的泛化能力，可作为评估推荐模型对新用户-新商品交互、新搜索词组合鲁棒性的内部基准，提前发现模型是否真正理解底层规则而非记忆。
- 注意训练后期的“精调”阶段：本文观察到最终阶段模型学会处理训练中未见的困难序列，暗示适当延长训练或加入类似难例挖掘的机制可能对复杂推理任务有益，对需要处理长尾查询或冷启动场景的电商Agent有参考意义。